Appeal to consequence

正確には、appeal to consequenceはそれが信じられた場合の結果ではなく、真だった場合の(論理的)結果に訴えることのようである

というふうに書いてあるのもあるし、信じられた場合の(因果的)結果について言ってる人もいる…どっちだ…

ここでは、LessWrong周辺で言われている (???) appeal to consequence、すなわち「Pが信じられた場合の結果が悪いゆえに、Pを信じるべきでない」「Pが信じられた場合の結果が悪いゆえに、Pを言うべきではない」(または、「Pが信じられた場合の結果が悪いゆえに、Pは偽である」)という推論形式を論じることにする。

(タブーと関連)

もう少し概念を明確にしたほうがいいかも

企業秘密とかは含まれるのか?

信念の命題内容の論理的な意味での帰結は「帰結」、信念が信じられたときの因果的な結果は「結果」と呼ぶことにする。

(consequenceだとどっちかわからないけど)

後者の意味で捉えても、appeal to consequenceは人々がその論理的「帰結」をたどった場合に悪い「結果」が起こるというパターンが多そうなので、やはり帰結とも関係するけれど

Pの否定を信じるべきというのと、Pを信じるべきでないというのと、2つのバージョンが考えられる

前者は高貴な嘘と関係する (偽と知っていることを言うのが嘘だとすると、appeal to consequenceよりは狭い概念になる。

十分な認識論的根拠がなく何かを言うことも嘘にふくめるなら、前者のappeal to consequenceとだいたい一致しそう)

appeal to consequenceに関係する話として、

「Pならば、Qである。Qではない。よってPではない」というのは、後件肯定(モーダストレンス)という正しい推論形式だけど、Pが事実判断で、Qが価値判断の場合には、合理的な信念形成方法に対応する推論形式ではないように思える

つまり

「PならばQである」という信念

Qではないという信念

があっても、

Pではないという信念

を信じることが正当化されるわけではない

形式的に妥当なのに、不思議だけれど

いちおう整合性は保っていると言えるのだけど

事実 / 価値をまたぐ場合以外にも、これに則って信念形成を行うのが不合理な場合はありそう

観測と理論など、PとQの間に非対称的な依存関係がある場合

Pの側がより信念の中のより基礎的な部分に対応する場合には、¬P∨Qが分かっている場合に、前者の選言肢を取ることは認められない

(『信頼性の高い推論』によると、論理学でいう推論規則というのは本来は帰結関係を与えるもので、名前の通り推論の規則と考えるべきではないらしい)

論点先取?

すべり坂論法?

Do you believe that it is generally good for society to select beliefs based on their consequences rather than truth?

I.e. if there are two alternative theories we should ask which theory makes people nicer to each other and propagandize/teach the niceness-maximizing theory?

If you voted for a mixture of the two, when deciding whether to propagandize a niceness-maximizing falsehood, should we be allowed to use other niceness-maximizing falsehoods to evaluate the utility of propagating a falsehood or should only true beliefs be used when doing this?

If you think we should only use true beliefs to decide when it's a good idea to propagate niceness-maximizing falsehoods, how do you propose to keep track of which social beliefs are actually true and which ones we're just pretending are true?

・社会が信念を、真理性ではなく結果に基づいて信じることは良いことか?

・つまり、2つの理論があったときに、どちらの理論が人々をお互いにナイスになるようにできるかを尋ね、ナイスさを最大化するような理論の方を教えたり、広めたりすべきだろうか?

もしあなたが上の両方〔twitterアンケートの形式になっている〕に投票したなら、我々はナイスさを最大化するための虚偽〔訳注: 厳密には、虚偽とは限らず、真と考える根拠がないもの、といったほうがいいだろうけど〕を広めるか決める際に、他のナイスさを最大化するための虚偽を使っていいのか? それともその場合には真な信念だけを使うようにするべきか?

もしあなたがそのときは真な信念だけを使うようにするべきと考えるなら、どの社会的信念が本当に真で、どの社会的信念は真だと装っているものにすぎないのか、というのを区別しておく方法についてのあなたの提案はなにか?

「社会的信念」という概念が使われているのはポイントかな。

もし議論というのが単に人々が独立に熟慮した結果を伝え合うだけなら、みなあらかじめそれぞれで考えて、共有しないほうがいい結果になると思ったものは共有しない、もしくはわざと偽なことを言う、といったことができる。(独立した思考主体の仮定)

しかし、議論それ自体が動的な認識のプロセスと捉えるなら、何が良い/悪い結果に導くか、それ自体議論を経なければならない…が、それを議論しようとしてしまった時点で公開されてしまっているので意味がない(「pという事実があるんだけど、これを公開することはどういう結果につながるかな? 隠したほうがいいかな?」「もう言ってるじゃん」)

そもそも議論しない方がいいことがあるかを議論によって決めることはできない

そもそも思考しない方がいいことがあるかを思考によって決めることができない

「pかどうかという問題があるんだけど、これを思考することはどういう結果につながるかな? 思考しないほうがいいかな?」

つまりpが信じられた場合の結果の予想が、複数人で議論しないと分からないような複雑なものである場合困る。

だから、もしそれでも appeal to consequence をやりたいならエリートの中で秘密の議論を行い、その結果を大衆に共有する、といったことになるだろう

(それでもやはり、その閉鎖性自体が認識プロセスとしての言論市場の構造を変えてしまう、という応答がありえるかもしれないし、エリートをそんなに信頼できるの?という話もある)

エリートという言葉には、権力と能力が一致するという前提を含んでいるけれど、実際には愚かな権力者などもいるだろう

そのようにしなければ、何が本当に危険な考えなのかすらわからないだろうから

だから総督府功利主義者であって、SNSを検閲したいとしても、学問の自由とかは擁護するべきということになる

「エリートが信頼できるかどうか」に関する議論そのものがappeal to consequenceの影響を受ける。

また、appeal to consequenceによってエリートは、エリートの信頼を損ねるような情報を広まらないように望むかもしれない。

エリートがそんなに情報を隠蔽できるような力を持ってはいないだろうけれど

一般的に、嘘をつくとまた嘘で上塗りする必要が生じ…ということが起こる

「人が生きていることのコストを計算すると、人々には利己的なバイアスがあるので、生きることの本人にとってのベネフィットは過小評価される一方で他人にとってのコストは多く評価され、人殺しに使われる。だからそもそもコストを考えないほうがいい」

ここでの「利己的なバイアス」の存在の立証自体が、この「コストを考えない」ということによって起こっているのだとすると、循環が発生することになる (独立の根拠を与える必要がある)

専門家が素人をミスリードしても、お互いをミスリードしたらよくない

知識はすべてつながっているので、真理以外の観点で信念を評価するのは隠れた大きなコストを伴うという観点について

これはappeal to consequenceが、意図しない結果を持つだろうという観点

それも考慮した上での「総合的な結果」に基づくappeal to consequenceがあったらどうなのか

ある信じられた場合の結果によって選ばれた信念が他の帰結を持たないことをどうやって知るか

Pという命題のを信じられた場合の結果によって選ばれた信念によって採用したとしても、「もし仮に¬P だったとしたら Q」という反事実的条件法の真偽を問うことができるのではないか

知識は分野に分かれており、何が何に影響するかをある程度予め知ることができる(ので分業が成立している)

そうでないなら、仮に他人の年齢を覚えていなかったばっかりに明日の天気がわからないなどという事態も想定しなければならない

一般性が高い知識については隠れたコストが大きそう

プライバシーが存在すると何もわからなくなるなどのこと (プライバシーはなにかを信じることではなく、無知に関わるものだからappeal to consequenceとは関係ないのでは)

究極的には宇宙の初期状態と決定論的自然法則の対はプライバシーを侵害するので、プライバシーと科学的探求は対立しうる

音→物体 逆問題を解けるとプライバシーを侵害する

もしほんとうにあらゆる知識とあらゆる知識がつながっているなら、その関係性は知識の数をnとしてn(n-1)/2に及び、これはnに対し二乗のオーダーだから、知識の量が増えるにしたがって莫大な関係性チェックを行わないといけなくなり、そのような世界では知識探求の分業が成立せず、そのような場合には我々が知る科学的探求は不可能になってしまうのではないか

クリストファー・チャーニアク

compartmentalizationを行っており、信じていることの論理的帰結をたどらない場合には、仮に誤った信念を持っていても害になりにくい (誤りが表面化しにくいとも言える)

信じていることの論理的帰結をたどるというのは一見かんたんそうに見えるけども、自分の信念の中に他のひとに言われなければ気づかない帰結というのはあるものだし (極端に言えばペアノの公理からフェルマー予想が導ける、とかの例をあげることができるが)、私達はそれですら共同作業として行っているように思う

というか議論というのの多くの部分はそういう作業だ

地球の年齢と進化論

確証の全体論

appeal to consequence を行ったことが「appeal to consequenceを行うべきか」という議論に (この場合はappeal to consequence自体にとって自滅的な方向にだけど) 影響してしまう

もし「情報には複数の用途があるから、特定の目的に使うとしてその目的から出る行動が合理的になるように嘘をついてもダメ」ならなぜ自己欺瞞が進化したのだろうか

エラーマネジメント的な考慮

「毒を避けるためには「毒である」側に倒して認識をするのがいいが、毒を使って相手を仕留めるという目的のためであれば、そのような認識方法は仇になり得る」

転ばぬ杖論法

みんなが本当のことを信じていた方がいいというのは人々が善意であることを前提にしている気がする?

あるいは善意という言葉を使わずに言えば、効用関数u(w)を持つaにとって、bが正しいことを信じていてほしいのは、bの持つ効用関数u'(w)が十分にaに近い場合である

やはり正しい情報を伝えることをシンプルな帰結主義だけで正当化できないのでは。「自分が嘘をつかない代わりに相手も嘘をつかない、とすることで相互に利益がある」として契約論的に正当化する、とかのほうがいいかも

ただし、単に状態間の良さの比較にとどまらず、良い状態に移行するためのタブーを作ろうとするなら、タブーを作る側が善意という仮定がいる。だからもし全員が善意ならタブーはもとから要らないし、もし全員が悪意なら、タブーを使ってそれを解決することはできない (一部の善意の人がタブーを使って解決する、ということはありえても)

タブーを肯定するにはタブー作成側の知能と善意を高く見積もり、タブーに従う側の知能と善意を低く見積もるなどの仮定が必要そう。つまり知能が高いものが権力を握っており、社会全体を考えて行動するという仮定。(いくら知能が高い人がいても、権力を握っていなければタブーを作れないし、むしろ、頭が悪い人の作ったタブーに制約される立場になる。)

一般的に知能が高い必要はない。たんにタブー作成というタスクについて適性があればいい。

これは「子供に性行為の仕方を教えない」という例では成り立っていそう

あとから考えると、私がこのようなことを思ったのは自分の持つ態度との整合性を考えるとかなり変な気がする。(知識を弾圧することへの元からの反感にもかかわらず、子供、性に関する社会規範に一般的に懐疑的であるにもかかわらず、私が伝統的タブーに根拠があるんだろうとでっちあげて支持してしまうとは! )

In the best Talmudic tradition of arguing a position as forcefully as possible and then switching sides, let me now present the case for discouraging certain lines of intellectual inquiry. Two of the contributors to this volume (Gopnik and Hillis) offer as their "dangerous idea" the exact opposite of Gilbert's: They say that it's a dangerous idea for thinkers to air their dangerous ideas. How might such an argument play out?

…

…Scientists test drugs in double-blind studies in which they keep themselves from knowing who got the drug and who got the placebo, and they referee manuscripts anonymously for the same reason. Many people rationally choose not to know the gender of their unborn child, or whether they carry a gene for Huntington's disease, or whether their nominal father is genetically related to them. Perhaps a similar logic would call for keeping socially harmful information out of the public sphere.

人間社会のオペランド条件づけの例

→祟りは実は感染症

もし悪い結果に至るメカニズムについてのひとびとの理解が不十分なら(感染症についての知識がないとか)、そういうタブー的なものが時代を通じて継承されることは有益 〔チェスタートンの柵〕

ジンクス、縁起

優生学に通じるので、縁起が悪い

因習村

Pから演繹されるQが悪いという理由でPという発言を統制するタブーの執行は、タブー執行者の論理的推論能力に左右される

(もし論理的推論能力が高ければ、色々な帰結が統制される)

我々は論理的推論能力が低いおかげで、動機づけられた推論から守られている面があるのかも

具体例

こういう議論で反出生主義をBANする appeal to consequence (絶滅は良くないということを最初から前提としてしまっている)

言論の自由市場で繁栄する考えより、実際に多数の社会の生存競争の中で試されて残っている考えの方が良いという考え方

社会の生存競争の中で試されて残っている伝統には、タブーもあるかもしれない

そういう意味では、タブーは社会間の競争が、言論間の競争に対し制約をかけるもの

バーク的保守主義

下手に考えると危険という話

実際、当時のアメリカの知識人達は、「病気の細菌説」を批判している。トレスケンは、“State Medicine: A Menace to Democracy (国家医療：民主主義の危機)”の著者Ｈ.Ｂ.アンダーソンを引用しているが、アンダーソンは「細菌説は、個人に自由と敵対する、多数の法律・規則・規制の基礎となってきているのです」と語っている。

病気の細菌説が個人の自由と敵対する多数の法律の基礎になってきたというのはまさにそうなんだけど(たぶん)、うんという感じで、appeal to consequenceの議論はこういうことを言っていることになる可能性を意識したほうがいいかも

"適応的選好形成の概念はパターナリズムに使われる可能性がある"(ので危険だ) とかも。

自己言及: 「言論が危険な結果に繋がることがある」という言論は言論統制に繋がる可能性があるから危険だ

(*)は再現されなかったらしいけど、「自由意志を疑うと不正行為に手を染める人が増える(*)から疑わない方がいい」というのはappeal to consequence

自由意志信念をもつ人ほど望ましい道徳特性をもち、疑う人ほど不正行為に手を染めやすいという仮説ですが、再現されず。

「男性が、女性が自分のことを好きと思っている考える程度は女性が自分のことを実際に好きである程度ではなく、その男性がその女性のことを好きであるかどうかにのみ相関する」←適応的な不合理性?

「分断を招く」

「○○に利用される恐れがある」

子供に性行為の方法を教えない

生物好きは動物の交尾から人間の性行為の存在を類推するひとが多いと聞いた

これを書いたときは進歩的性教育みたいなことの存在を忘れてて論議の余地の少ないタブーの例と思っていた (!) けど全然論議の余地がある (ここで教えないというのは、教育のことが念頭にあったわけではなく隠すという意味で書いた(隠すならば教育で教えないということが論理的に従うけど))

隠してもどうせ知るし、自分が小学生高学年の時の周囲を思い出しても子供は知っていたが、大した問題にはなっていない気がするし、それ以下の子供を考えても性欲の少なさなどから大した問題になる気はしないし、別に隠す意味があるからやっているわけではないか (子供がセックス関係の揉め事を起こすことを防ぐなどの機能があるのかと思ってた)

冷静に考えると普通に悪いタブーの例な気がする

単に子供が下ネタを言って周りの大人が困るなどの理由から存続しているのでは

核兵器の作り方

私の母は私の時計の針をじっさいより何分か後ろにしていた (これは真でないと明確に知っていることを言う、という例になるが)

これは全体的に助かっていると思うけど、(そのことをしらなかったとき)「家から○○まで何分でつくか」を計算するさい、家で見た時計の時点と、ついた後に腕時計でみた時点との引き算で行うが、家の時計と腕時計が同じ時に同じ針をさしていないので狂いが生じるという問題が生じた

しかし、そのことを前提としてなお私は自分自身で時計の針を何分か後ろに設定している

これができるのはパターナリズムを行う側の自分には「実際の時点」がべつの手段でわかるという前提があり、もしその時計自体を「真の時点」を知る基準としてしまうと、「何分か後に設定する」という行動を延々とすることになるだろう

私は自分自身を真に騙しているのではないのかもしれない。自分自身に誤ったaliefを形成させているが、beliefは形成させていない、というような

このように、自分の中の馬鹿な部分を騙すというのは使える?

https://www.youtube.com/watch?v=TNWzfjo2nM0

ジェファーソンは人種差が権利の違いを含意するものとは考えなかったが、ジェファーソンの人種差に関する記述は南部の人種差別者に利用されてしまったらしい

Whether the element of fatality should be introduced into the material order of things, or whether God willed to make different kinds of men so that He imposed special burdens of race on some, withholding from them a capacity for certain feelings, for certain thoughts, for certain habits, for certain qualities -- all this has nothing to do with my own concern with the practical consequences of these philosophical doctrines. The consequence of both theories is that of a vast limitation, if not a complete abolition, of human liberty. Thus I confess that after having read your book I remain, as before, opposed in the extreme to your doctrine.